Chơi ở vị trí tiền đạo, Krankl là cầu thủ bóng đá người Áo ghi bàn nhiều nhất thế giới. Ông bắt đầu sự nghiệp chuyên nghiệp của mình tại Rapid Wien và ở đó chơi bóng 8 năm, ngoài việc chơi bóng một năm tại Wiener AC. Ông đã giành Chiếc giày vàng châu Âu tại Rapid Wien năm 1978, thu hút sự quan tâm của nhà vô địch La Liga - F.C. Barcelona. Ở F.C. Barcelona ông giành Copa del Rey trong mùa giải đầu tiên cũng như Cúp các câu lạc bộ đoạt cúp bóng đá quốc gia châu Âu (ghi bàn trong trận chung kết), và ông cũng nhận được danh hiệu cầu thủ ghi bàn nhiều nhất ở giải La Liga với 29 bàn trong 1 mùa. Ông trở lại Rapid Wien năm 1981.

Krankl được bình chọn là cầu thủ nổi tiếng nhất của Áo trong 25 năm qua và chưa có một ai xô đổ kỉ lục của ông.